Американски компании и китайски експерти участват в тайна дипломация относно безопасността на ИИ

Американските компании за изкуствен интелект OpenAI, Anthropic и Cohere се ангажират в тайна дипломация с китайски експерти по ИИ на фона на споделена загриженост за това как мощната технология може да разпространява дезинформация и да заплашва социално сближаване.

Според много хора с преки познания две срещи са се състояли в Женева през юли и октомври миналата година, на които са присъствали учени и политически експерти от американските групи за ИИ, заедно с представители на университета Цинхуа и други подкрепяни от китайската държава институции.

Присъстващите казаха, че разговорите са позволили и на двете страни да обсъдят рисковете от нововъзникващите технологии и да насърчат инвестициите в изследвания на безопасността на ИИ. Те добавиха, че крайната цел е да се намери научен път напред за безопасно разработване на по-сложна AI технология.

„Няма начин да установим международни стандарти относно безопасността и привеждането в съответствие с ИИ без споразумение между този набор от участници“, каза един човек, присъстващ на разговорите. „И ако те се съгласят, ще бъде много по-лесно да доведем и останалите.“

Неотчетените досега разговори са рядък знак за китайско-американско сътрудничество на фона на надпревара за надмощие между двете големи сили в областта на авангардни технологии като AI и квантови изчисления. В момента Вашингтон е блокирал износа на САЩ на високопроизводителни чипове, произведени от компании като Nvidia, които са необходими за разработването на сложен AI софтуер.

Но темата за безопасността на изкуствения интелект се превърна в точка на общ интерес между разработчиците на технологията в двете страни, предвид потенциалните екзистенциални рискове за човечеството.

Срещите в Женева са били организирани със знанието на Белия дом, както и на правителствени служители на Обединеното кралство и Китай, според присъстващ преговарящ, който отказа да бъде назован.

„Китай подкрепя усилията за обсъждане на управлението на AI и разработване на необходимите рамки, норми и стандарти въз основа на широк консенсус“, каза китайското посолство в Обединеното кралство.

„Китай е готов да осъществява комуникация, обмен и практическо сътрудничество с различни страни относно глобалното управление на ИИ и да гарантира, че ИИ се развива по начин, който напредва човешката цивилизация.“

Разговорите бяха свикани от Shaikh Group, частна посредническа организация, която улеснява диалога между ключови участници в региони на конфликти, особено в Близкия изток.

„Видяхме възможност да съберем ключови актьори от САЩ и Китай, работещи по AI. Нашата основна цел беше да подчертаем уязвимостите, рисковете и възможностите, съпътстващи широкото внедряване на AI модели, които се споделят по целия свят“, каза Салман Шейк, главен изпълнителен директор на групата.

„Признаването на този факт може, според нас, да се превърне в основа за съвместна научна работа, което в крайна сметка ще доведе до глобални стандарти относно безопасността на моделите на ИИ.“

Участниците в разговорите казаха, че китайски компании за ИИ като ByteDance, Tencent и Baidu не са участвали; въпреки че Google DeepMind беше информиран за подробностите на дискусиите, той не присъства.

По време на разговорите експерти по изкуствен интелект от двете страни обсъдиха области за ангажиране в техническото сътрудничество, както и по-конкретни предложения за политика, които се включиха в дискусиите около заседанието на Съвета за сигурност на ООН посветено на изкуствения интелект през юли 2023 г., и срещата на върха за ИИ в Обединеното кралство през ноември миналата година.

Успехът на срещите доведе до планове за бъдещи дискусии, които ще се фокусират върху научни и технически предложения за това как да се приведат в съответствие системите AI със законовите кодекси и нормите и ценностите на всяко общество, според присъстващия преговарящ.

Има нарастващи призиви за сътрудничество между водещите сили за справяне с възхода на ИИ.

През ноември китайски учени, работещи върху изкуствения интелект, се присъединиха към западните академици, за да призоват за по-строг контрол относно технологията, подписвайки изявление, което предупреждава, че напредналият AI ще представлява „екзистенциален риск за човечеството“ през следващите десетилетия.

Групата, включваща Андрю Яо, един от най-известните китайски компютърни учени, призова за създаването на международен регулаторен орган, задължителната регистрация и одит на усъвършенствани AI системи, включването на процедури за незабавно „изключване“ и разработчиците да изразходват 30 процента от бюджета си за изследвания за безопасността на AI.

OpenAI, Anthropic и Cohere отказаха да коментират участието си. Университетът Цинхуа не отговори веднага на искане за коментар.

Последвайте ни в